Мнение: Снимките на Taylor Swift AI предлагат ужасяващо предупреждение

Бележка на редактора: Лори Сегал е дълготраен софтуерен публицист и създател на развлекателна компания, която създава документи, филми и цифрово наличие, фокусирано върху пресечната точка на технологиите и човечеството. Тя е създател на ": My Adventures with Tech's Titans and Misfits. " Преди това тя е била старши софтуерен сътрудник на CNN. Мненията, изразени в този коментар, са нейни лични. Прочетете повече в CNN.

Генерирани от изкуствен интелект фотоси със полов темперамент на поп суперзвездата Тейлър Суифт заляха интернет и няма потребност да се успокояваме.

Суифт може да е една от най-известните дами в света, само че тя съставлява всяка жена и всяко момиче, когато става въпрос за това какво е заложено на карта в бъдещето на изкуствения разсъдък и единодушието.

Бил съм в окопите, отразявайки въздействието на технологиите, от близо 15 години, и имам вяра, че полово явните дълбоки имитации са една от най-значимите закани, пред които сме изправени с напредъка в ИИ. С разпространяването на принадлежности, генерирани от AI, и наклонността на Силиконовата котловина да се надпреварва за нововъведения, ние навлизаме във фаза на технологиите, които ни се костват познати – единствено че в този момент залозите са още по-високи.

Намираме се в ера, в която освен данните ни са за грабване, само че и най-интимните ни качества: гласовете ни, лицата ни, телата ни към този момент могат да бъдат имитирани от AI. Казано просто: Нашата човещина е на един клик разстояние от това да бъде употребена против нас.

И в случай че може да се случи на Суифт, може да се случи и на вас. Най-голямата неточност, която можем да създадем, е да имаме вяра, че този тип щета е непокътната за обществени персони. Сега виждаме демократизация на приложенията за генериране на изображения, позволяващи този вид държание. Твоята пристрастеност отхвърли ли те? Има приложение за това. Сега можете да я съблечете цифрово или да създадете собствен личен явен deepfake с нейното присъединяване.

Проблемът единствено ще се утежни, до момента в който прекосяваме към разширени и виртуални светове. Представете си завладяваща среда, в която ненавиждан някогашен кани другите да гледат дружно полово очевиден бездънен подправен видеоклип на момичето, което го е отхвърлило. По-рано този месец беше обявено, че английската полиция проверява случая на 16-годишен юноша, който твърди, че е бил изнасилен във виртуалния свят от голям брой нападатели.

Наскоро разговарях с професора от университета " Джордж Вашингтон " доктор Мери Ан Франкс, която е експерт по цивилен права, технологии и независимост на словото. Тя имаше смразяващо предизвестие: тези видове приложения и AI принадлежности могат да доведат до ново потомство млади мъже с нрав „ моето предпочитание е командата на AI “. Ако не сме деликатни, освен ще създадем ново потомство жертви, само че и ново потомство насилници.

„ Току-що създадохме всички тези принадлежности – комплицирани, негодуващи, ядосани млади мъже просто [ги] употребяват, вместо да се пробват да схванат какво значи да се справяш по здравословен метод с отхвърлянето “, сподели Франкс.

Използването на напредъка в технологиите за унижение на дамите не е нещо ново. През 2015 година сътворих сериал в CNN, наименуван „ Порно възмездие: Кибервойната против дамите “. По това време порнографията без единодушие - където ненавиждан някогашен или неприятен артист разгласява разголени фотоси на дами в уеб страници, отдадени на засрамването им - беше необятно публикувана. Както през днешния ден, законите занапред трябваше да наваксват и софтуерните компании към момента не правеха промени, с цел да защитят жертвите.

По време на това следствие в никакъв случай няма да не помни да виждам уеб страници, хоствани в тъмната мрежа, които включват порнография без единодушие на тийнейджърки. Изследовател по сигурността, профилиран в онлайн злоупотреби (и следене на злоупотреби), ми показа дълбочината на казуса, като ме преведе през конгреси и изображения, които в никакъв случай няма да пропусна. На един уебсайт причинителите са компрометирали уеб камерите на младежи и са принудили млади девойки да правят полови дейности със опасност: Ако не се съобразите, ще изпратим персоналните ви изображения, които сме записали, на всички ваши съученици.

Бързо напред до 2024 г. Представете си, че вашият младеж получава полово очевиден видеоклип на себе си в DM. Те в никакъв случай не са записвали видео, само че заради напредъка в технологията deepfake е невероятно да се разграничи дали е същинско или подправено. В свят, в който AI прави измислицата толкоз правдоподобна, истината и нашето усещане за истината не са надалеч едно от друго. Чувството на позор, загуба на надзор и беззащитност не се трансформира, тъй като изображението или видеото механически не са „ същински “.

Deepfeke кошмарът на Суифт е единствено върхът на айсберга, подчертаващ екзистенциалната опасност, пред която са изправени дамите и девойките. Въпреки че X може да е премахнал вирусните изявления (след като са били гледани десетки милиони пъти), към момента има редица различни уеб сайтове, отдадени на този вид експлоатационно наличие. Един съответен уебсайт, събиращ милиони гледания на месец, включва страници със полово очевидни дълбоки подправени видеоклипове, отдадени на Суифт и други звезди, които не са се съгласили сходството им да бъде употребявано за нецензурен цели.

Джинът е мъчно да се върне назад в бутилката, а лекарството идва с цена. В събота търсенията на Swift бяха блокирани на X, като компанията сподели на CNN, че този ход е краткотраен, с цел да се „ даде приоритет на сигурността “.

За да отбрани една от най-известните дами на планетата, X краткотрайно трябваше да я направи невидима. Въпреки че това е краткотраен ход, посланието има трайно влияние: в случай че една от най-известните дами би трябвало да изчезне онлайн, с цел да бъде в сигурност, какво значи това за останалите от нас?

Мислих доста за това какво в действителност би преместило иглата.

От позиция на политиката няколко държави имат закони против основаването или шерването на тези видове дълбоки имитации с очевиден полов темперамент. Всички тези закони се разграничават по обсег - тъй че когато някой може да повдигне обвинявания, има значение. Ако, да вземем за пример, Суифт е подала в Ню Йорк като гражданин на щата - законът на Ню Йорк изисква жертвата на този вид корист да потвърди желание да аргументи щета, все по-трудно достижение за генерирани от AI полово очевидни изображения, каза Франкс.

„ Намерението за пострадване е доста ограничаващо условие, защото, както при другите форми на полово принуждение, учредено на изображения, има доста други претекстове [включително] полово облекчаване, печелене на пари, придобиване на популярност, реализиране на обществен статус “, каза Франкс. „ Статутите, които изискват желание за причиняване на щета, дават свободен пропуск на всички тези причинители. “

За да повдигне наказателни обвинявания, Swift ще би трябвало да наблюдава извършителя(ите) – което е както скъпо, по този начин и мъчно за осъществяване, като в същото време рискува в допълнение излагане. Това демонстрира действителността, че даже страни със съществуващи закони имат непостижимо комплициран път към правосъдното гонене.

„ Някой като Тейлър Суифт има юристи и някой, който може да помогне за това “, сподели Франкс. „ Вашата междинна жертва няма да получи никаква помощ. “

Вземете нашия безвъзмезден седмичен бюлетин

Франкс споделя, че идеалният федерален законопроект ще включва наказателни и цивилен санкции, цитирайки двупартийния Закон за попречване на дълбоки фалшификации на интимни изображения, който би забранил наказателно разкриването на полово очевидни цифрови изображения без единодушие и би обезпечил гражданска отбрана за жертвите. Тъй като законите, забраняващи дълбоките имитации, са сложни за използване, законодателите във Върмонт наскоро вкараха законодателство, което ще държи разработчиците на генеративни AI артикули виновни за вредите, които предизвикват, които са рационално предвидими. Това са първи стъпки, само че законодателството се изпреварва от скоростта, с която се развива технологията.

Не става